Pejabat Penyimpan Mohor Besar Raja-raja diwujudkan pada tahun 1948 menurut kehendak Perjanjian Persekutuan Tanah Melayu 1948 berkuatkuasa pada 1 Februari 1948, yang menggantikan pemerintahan Malayan Union. Penyimpan Mohor Besar Raja-raja menjadi Setiausaha kepada Majlis Raja-raja yang ditubuhkan dan pertama kali mengadakan mesyuarat pada 18 Februari 1948.

Dari 1948 hingga 1957, Majlis Raja-raja terdiri daripada sembilan orang Raja-raja Melayu yang ditugaskan membincang dan menasihati Pesuruhjaya Tinggi British yang menyelaraskan pentadbiran seluruh Persekutuan Tanah Melayu. Persekutuan Tanah Melayu terdiri daripada sembilan Negeri-negeri Beraja dan dua Negeri-negeri Selat iaitu Pulau Pinang dan Seberang Perai (Penang dan Province Wellesley) dan Melaka yang masing-masing diketuai oleh Pesuruhjaya Residen British. Walau bagaimanapun, Ketua-ketua Pentadbir British itu tidak menganggotai Majlis Raja-raja.

Pejabat Penyimpan Mohor Besar Raja-raja terus wujud selepas Hari Merdeka, dan dua orang Gabenor (sekarang digelar Yang di-Pertua Negeri) bagi Negeri-negeri Pulau Pinang dan Melaka menjadi Ahli-ahli Majlis Raja-raja, menurut peruntukan Perkara 38 Perlembagaan Persekutuan, dan selepas 16 September 1963, Yang di-Pertua Negeri Sabah dan Sarawak (selain Singapura sehingga 9 Ogos 1965) menganggotai Majlis Raja-raja.

Pejabat Penyimpan Mohor Besar Raja-raja sekarang ditadbir urus oleh 15 orang anggota. Dua anggota Pengurusan terdiri daripada Penyimpan Mohor Besar Raja-raja yang dilantik menurut Jadual Lima Perlembagaan Persekutuan selaku Ketua Jabatan dan dibantu oleh seorang Penolong Setiausaha Majlis Raja-raja serta tiga belas pegawai/staf lain yang dilantik oleh Kerajaan.